一段時(shí)間以來(lái),網(wǎng)絡(luò)虛假信息泛濫,大量以“剪切拼湊”“故意模糊時(shí)間地點(diǎn)”“冒用身份”“AI偽造”等手段,編造謠言、夸大渲染社會(huì)矛盾、制造社會(huì)焦慮、挑起群體對(duì)立短視頻頻現(xiàn),嚴(yán)重?cái)_亂網(wǎng)絡(luò)傳播秩序。
??造謠短視頻為何選中“社會(huì)矛盾”,又是如何激發(fā)群體對(duì)立,擾亂社會(huì)秩序?記者為此進(jìn)行了調(diào)查采訪。
??社會(huì)矛盾成為謠言選材來(lái)源
??近年來(lái),網(wǎng)絡(luò)謠言日益成為互聯(lián)網(wǎng)空間治理的頑疾。
??中央網(wǎng)信辦舉報(bào)中心數(shù)據(jù)顯示,2024年,公安機(jī)關(guān)全年偵辦網(wǎng)絡(luò)謠言案件4.2萬(wàn)余起,查處造謠傳謠違法犯罪人員4.7萬(wàn)余人,關(guān)停違法違規(guī)賬號(hào)33萬(wàn)余個(gè),清理網(wǎng)絡(luò)謠言信息252萬(wàn)余條。
中央網(wǎng)信辦舉報(bào)中心公布相關(guān)數(shù)據(jù)。
??2022年10月,鄭某某等人制作造謠視頻敲詐某上市茶飲公司600萬(wàn)元未遂,經(jīng)檢察機(jī)關(guān)提起公訴,鄭某某等人犯敲詐勒索罪,被法院判處有期徒刑六年到三年不等,并處罰金人民幣六萬(wàn)元到三萬(wàn)元不等。
??2023年,自媒體博主郭某某制作虛假視頻,造謠“開(kāi)國(guó)少將”何克希為“中共歷史上最?lèi)毫拥氖笈淹健?,侵害其肖像、名譽(yù)和榮譽(yù)。2023年12月,經(jīng)檢察機(jī)關(guān)提起民事公益訴訟,法院判令三被告在國(guó)家級(jí)媒體公開(kāi)賠禮道歉,并賠償公益損害賠償金。
??將一段發(fā)生在A地的視頻素材嫁接到B地,利用AI換臉換音,并在后臺(tái)修改IP定位,一段打上“親歷者口述”標(biāo)題的短視頻幾小時(shí)內(nèi)便被多個(gè)賬號(hào)轉(zhuǎn)發(fā),關(guān)于B地的謠言便隨之產(chǎn)生。這不是電影橋段,而是一起真實(shí)案件中的AI造謠過(guò)程。
??“移花接木”“張冠李戴”“斷頭去尾”已經(jīng)成為了造謠的慣用伎倆。然而,記者發(fā)現(xiàn),激化社會(huì)矛盾的謠言有愈演愈烈之勢(shì)。
??記者通過(guò)梳理大量謠言發(fā)現(xiàn),醫(yī)患關(guān)系、性別對(duì)立、貧富差距、官民沖突、職場(chǎng)沖突等矛盾話題謠言關(guān)注度較高。相關(guān)謠言總能挑起網(wǎng)友憤怒情緒,進(jìn)而引發(fā)網(wǎng)絡(luò)罵戰(zhàn),有的甚至誘導(dǎo)模仿犯罪。
??今年5月初,一條網(wǎng)傳“女子為報(bào)復(fù)家暴丈夫喂豬飼料被判無(wú)罪”的視頻引發(fā)網(wǎng)友熱議,記者在評(píng)論區(qū)看到,多名網(wǎng)友為女子“零代價(jià)爽文式”復(fù)仇行動(dòng)叫好,甚至表示“這招可以學(xué),專(zhuān)治壞男人”,卻激發(fā)多名男性網(wǎng)友的敵對(duì)情緒,一網(wǎng)友表示,“可給你們這些高知女拳學(xué)到了”。相關(guān)法律人士指出,“投毒”等報(bào)復(fù)行為面臨刑責(zé),此謠言有誘導(dǎo)犯罪、娛樂(lè)化消解家暴議題傾向。5月8日,浙江省溫州市中級(jí)法院辟謠稱(chēng)案件純屬虛構(gòu),該謠言自2013年就反復(fù)出現(xiàn),每次均更換地點(diǎn)重新傳播,屬于“僵尸謠言”。
“女子為報(bào)復(fù)家暴丈夫喂豬飼料被判無(wú)罪”系謠言。來(lái)源:溫州辟謠
??記者在某社交平臺(tái)搜索“離婚”“相親”“情感”等關(guān)鍵詞,類(lèi)似涉及家庭矛盾、性別對(duì)立話題的謠言連續(xù)多月被官方辟謠:“南京青島等地離婚限號(hào)”“安徽一民政局五對(duì)結(jié)婚百對(duì)離婚”“女子喝醉在路邊被強(qiáng)暴”……
??不僅如此,相關(guān)謠言還會(huì)激發(fā)次生謠言災(zāi)害。在涉及高考違規(guī)問(wèn)題的謠言“高考作弊家長(zhǎng)用錢(qián)擺平”辟謠新聞下方,記者看到,多名網(wǎng)友在評(píng)論區(qū)“舉報(bào)”同類(lèi)違法犯罪。賬號(hào)“商**”表示,“我同學(xué)就是高考移民,考試用手機(jī)被查,第二年家長(zhǎng)找關(guān)系又去考了”。賬號(hào)“背**”表示,“作弊多了去了,我高考的時(shí)候有人直接飛紙條,還給監(jiān)考老師遞煙”。相關(guān)言論無(wú)法查證,卻引發(fā)了網(wǎng)友對(duì)“網(wǎng)信南岸”官方辟謠信息的大量質(zhì)疑,懷疑“官方包庇,偽裝謠言”。
“高考作弊家長(zhǎng)用錢(qián)擺平”辟謠新聞評(píng)論區(qū)留言。來(lái)源:九派新聞
??“公眾長(zhǎng)期接觸此類(lèi)謠言,會(huì)產(chǎn)生‘結(jié)構(gòu)性誤讀’的傾向——即把系統(tǒng)、復(fù)雜的社會(huì)矛盾,歸咎于某一群體、某一地區(qū)的道德或文化缺陷。這將直接導(dǎo)致社會(huì)信任感的削弱,降低公眾對(duì)陌生人的基本信任,形成‘防御性認(rèn)知’?!敝袊?guó)社會(huì)科學(xué)院大學(xué)新聞傳播學(xué)院副院長(zhǎng)、教授黃楚新在接受記者采訪時(shí)表示,這些謠言會(huì)讓公眾習(xí)慣性地套用“誰(shuí)被欺負(fù)了”“誰(shuí)在作惡”的對(duì)立模式進(jìn)行非理性的判斷。
??“碰瓷”社會(huì)矛盾的謠言帶來(lái)的不只是社會(huì)情緒的失控、社會(huì)信任的喪失,還有其他違法問(wèn)題。
??“特別是涉及公共秩序、食品安全、民生政策等方面的謠言,極易引起公眾恐慌,甚至造成社會(huì)失序,影響政府決策和公信力。”河南省鄭州航空港區(qū)檢察院第一檢察部副主任李瑩表示,散布謠言擾亂社會(huì)秩序,需要承擔(dān)相應(yīng)法律責(zé)任。此外,網(wǎng)絡(luò)謠言還往往伴隨網(wǎng)絡(luò)暴力的發(fā)生,部分謠言針對(duì)特定人群進(jìn)行惡意攻擊,侵犯、曝光他人隱私,危害人民群眾生命財(cái)產(chǎn)安全。
??流量誘惑下的“謠言生產(chǎn)線”
??聚焦社會(huì)矛盾的造謠短視頻為何容易挑動(dòng)網(wǎng)友情緒?背后有什么制作邏輯呢?
??對(duì)此,黃楚新分析:“虛假信息在內(nèi)容設(shè)計(jì)上會(huì)刻意利用人們最易被挑起的情緒與認(rèn)知漏洞,迅速吸引注意力并抑制人們的理性思考。”他表示,造謠者往往通過(guò)二元對(duì)立來(lái)激化矛盾,這種敘事框架容易激起對(duì)“外來(lái)競(jìng)爭(zhēng)者”的集體敵意并形成負(fù)面刻板印象,助長(zhǎng)排他情緒。在上?;馂?zāi)謠言中,造謠者就是通過(guò)編造外來(lái)務(wù)工人員違規(guī)居住和縱火等虛假內(nèi)容,將事故責(zé)任強(qiáng)行歸咎于“外地人”。
??記者分析多個(gè)謠言短視頻發(fā)現(xiàn),相關(guān)內(nèi)容含有大量的情緒化表達(dá),其文案常用“太不公平了”“窮人命苦”“女性卑微”等煽動(dòng)性話語(yǔ),配上基調(diào)悲慘的音樂(lè),卻缺乏準(zhǔn)確的新聞要素。
??在5月一條“四川樂(lè)山月嫂不堪工作壓力自殺”的謠言短視頻中,記者看到博主用悲哀的語(yǔ)調(diào)描述月嫂被業(yè)主苛責(zé),被家人“吸血”的故事,并配文“她用生命賺錢(qián)卻換不回溫柔”“悲哀,女人要多愛(ài)自己”等情緒化表達(dá)。
“四川樂(lè)山月嫂不堪工作壓力自殺”系謠言。來(lái)源:樂(lè)山警方
??另外,黃楚新補(bǔ)充,AI換臉、語(yǔ)音合成等技術(shù)一定程度上降低了造謠成本,增強(qiáng)了內(nèi)容的偽權(quán)威性。根據(jù)心理學(xué)中的“消極偏向”理論,蘊(yùn)含恐懼、憤怒、悲傷等負(fù)面情緒的信息更易獲得關(guān)注與互動(dòng),所以此類(lèi)內(nèi)容在受眾情緒高漲,判斷力下降時(shí)容易完成“內(nèi)容說(shuō)服”。
??“中國(guó)社會(huì)處于快速發(fā)展與轉(zhuǎn)型關(guān)鍵時(shí)期,社會(huì)矛盾與生活壓力使在此環(huán)境下成長(zhǎng)的個(gè)體產(chǎn)生負(fù)面情緒。網(wǎng)絡(luò)空間因其低門(mén)檻、匿名性和便捷性特征成為個(gè)體宣泄情緒的首選平臺(tái),網(wǎng)絡(luò)謠言因能釋放情感沖動(dòng)成為個(gè)體情緒宣泄的具體場(chǎng)所。”西北政法大學(xué)網(wǎng)絡(luò)政治傳播研究院教授張愛(ài)軍在《謠言的內(nèi)幕:個(gè)體心理視角的網(wǎng)絡(luò)政治謠言生成與應(yīng)對(duì)》一文中指出,個(gè)體在宣泄心理作用下編造和傳播謠言,釋放對(duì)社會(huì)現(xiàn)實(shí)或相關(guān)部門(mén)的不滿、獲得心理上的滿足感。
??謠言的大規(guī)?!胺敝场币才cAI輔助生產(chǎn)有極大關(guān)系。
??2025年4月28日,一條“河南南陽(yáng)發(fā)生嚴(yán)重火災(zāi),已致14人遇難”信息引發(fā)關(guān)注。6月18日,據(jù)公安部消息,河南公安網(wǎng)安部門(mén)查明,該消息為謝某澤(女,23歲)使用AI工具自動(dòng)生成的虛假文章?!癆I生產(chǎn)內(nèi)容成本極低,批量制造聳動(dòng)標(biāo)題并配以夸大其詞的表述,可以快速吸引瀏覽量?!秉S楚新表示。
??此類(lèi)謠言又是如何廣泛傳播呢?黃楚新認(rèn)為,AI偽造手段的不斷進(jìn)化也幫助謠言繞過(guò)短視頻平臺(tái)現(xiàn)有的檢測(cè)模型,與檢測(cè)手段打起了“游擊”。大量謠言通過(guò)自定義主題標(biāo)簽,將與內(nèi)容無(wú)關(guān)的標(biāo)簽人為加入,借助平臺(tái)對(duì)熱門(mén)標(biāo)簽的優(yōu)先抓取實(shí)現(xiàn)廣泛傳播。另外,部分謠言將區(qū)域事件包裝為全國(guó)性議題,配合短視頻前3秒的強(qiáng)情緒畫(huà)面(痛哭、沖突等),通過(guò)地域標(biāo)簽、同城推薦、熟人推薦等機(jī)制讓謠言呈現(xiàn)放射狀式傳遞。
??謠言的制作成本極低,傳播速度快,但是利潤(rùn)卻很高。記者發(fā)現(xiàn),相關(guān)短視頻賬號(hào)除了賺點(diǎn)擊量牟利外,還通過(guò)制造假新聞事件,經(jīng)“櫥窗跳轉(zhuǎn)”“直播導(dǎo)流”等方式引流牟利。在一條關(guān)于“孕婦喝奶茶流產(chǎn)”的謠言獲取大量關(guān)注以后,該賬號(hào)“櫥窗”立刻上架了奶粉等母嬰產(chǎn)品、并在評(píng)論區(qū)設(shè)置點(diǎn)擊賬號(hào)跳轉(zhuǎn),部分賬號(hào)甚至直接引流至詐騙網(wǎng)站。
??用什么來(lái)止住造謠的網(wǎng)絡(luò)黑嘴
??“造謠一張嘴,辟謠跑斷腿”,謠言的影響極大,如何止住造謠的網(wǎng)絡(luò)黑嘴呢?
??我國(guó)現(xiàn)行的治安管理處罰法規(guī)定,散布謠言,謊報(bào)險(xiǎn)情、疫情、警情或者以其他方法故意擾亂公共秩序的,處五日以上十日以下拘留,可以并處五百元以下罰款;情節(jié)較輕的,處五日以下拘留或者五百元以下罰款。修訂后的治安管理處罰法已于2025年6月27日公布,自2026年1月1日起施行。修訂后的治安管理處罰法將上述行為的罰款金額由“五百元以下”提高到了“一千元以下”。
??“兩高”《關(guān)于辦理利用信息網(wǎng)絡(luò)實(shí)施誹謗等刑事案件適用法律若干問(wèn)題的解釋》中明確,編造虛假信息,或者明知是編造的虛假信息,在信息網(wǎng)絡(luò)上散布,或者組織、指使人員在信息網(wǎng)絡(luò)上散布,起哄鬧事,造成公共秩序嚴(yán)重混亂的,依照刑法第二百九十三條第一款第(四)項(xiàng)的規(guī)定,以尋釁滋事罪定罪處罰。
??“要嚴(yán)厲打擊造謠者。若造謠視頻僅為吸引流量,未造成嚴(yán)重社會(huì)危害,可依據(jù)治安管理處罰法處拘留或罰款;但若存在牟利行為,或謠言引發(fā)社會(huì)恐慌,則可能構(gòu)成尋釁滋事罪或編造、故意傳播虛假信息罪?!崩瞵摫硎?。
??今年4月中旬,網(wǎng)信部門(mén)開(kāi)展“清朗·整治短視頻領(lǐng)域惡意營(yíng)銷(xiāo)亂象”專(zhuān)項(xiàng)行動(dòng),多地公安及網(wǎng)信部門(mén)處置多個(gè)散布謠言賬號(hào)。
??短視頻平臺(tái)作為謠言治理的重要一環(huán),應(yīng)該發(fā)揮怎樣的作用呢?強(qiáng)化審核把關(guān),從嚴(yán)處置處罰是必不可少的,算法的平衡也很重要?!翱稍谒惴ㄖ屑尤搿畔?lái)源可信度’這一維度,優(yōu)先推送標(biāo)記為權(quán)威媒體、學(xué)術(shù)機(jī)構(gòu)或第三方事實(shí)核查組織檢驗(yàn)過(guò)的內(nèi)容,從源頭上提升信息質(zhì)量?!秉S楚新建議,可以將爭(zhēng)議性?xún)?nèi)容分為“高中低”三個(gè)標(biāo)準(zhǔn),區(qū)別化進(jìn)行推薦,并根據(jù)輿情動(dòng)態(tài)靈活調(diào)整曝光比例。還可進(jìn)行跨平臺(tái)聯(lián)動(dòng),與其他平臺(tái)以及事實(shí)核查組織共享“爭(zhēng)議性?xún)?nèi)容更新與驗(yàn)證情況”,形成聯(lián)合防御體系。
??此外,還需提高辟謠內(nèi)容的曝光率和用戶到達(dá)率。“辟謠內(nèi)容與謠言相比,具有天然的滯后性,因此,需在算法設(shè)計(jì)、平臺(tái)規(guī)則層面同步發(fā)力。推薦系統(tǒng)可適當(dāng)引入一些探索性推薦,周期性地插入與用戶既有偏好不同但高質(zhì)量的辟謠或權(quán)威科普內(nèi)容?!秉S楚新建議,可以將謠言?xún)?nèi)容與辟謠內(nèi)容視作兩類(lèi)推薦算法,以線性組合的方式賦予初始等權(quán)重,并依據(jù)在線反饋(點(diǎn)擊量、停留時(shí)間、分享次數(shù)等)進(jìn)行動(dòng)態(tài)調(diào)節(jié),確保辟謠內(nèi)容不會(huì)因點(diǎn)擊率低而被“擠出”推薦列表。另一方面,平臺(tái)可以開(kāi)展簡(jiǎn)易的“辟謠課堂”與“媒體素養(yǎng)小測(cè)驗(yàn)”,幫助用戶識(shí)別誤導(dǎo)性?xún)?nèi)容,增強(qiáng)用戶的主動(dòng)求證意識(shí)。
??記者了解到,目前,已有多家平臺(tái)在內(nèi)容審核方面進(jìn)行優(yōu)化。抖音開(kāi)辟了“辟謠專(zhuān)區(qū)”,上線“辟謠卡”功能,展示存疑信息的起源、傳播原因和事實(shí)真相。百度開(kāi)設(shè)“百度辟謠”,定期發(fā)布百度謠言專(zhuān)項(xiàng)治理公告。小紅書(shū)建立了真實(shí)信源庫(kù)和謠言庫(kù),上線了“爭(zhēng)議性標(biāo)簽”功能。
??“提升信息素養(yǎng),是每個(gè)網(wǎng)民的必修課。要盡量?jī)?yōu)先查看權(quán)威信息源,如政府官網(wǎng)、主流媒體,警惕‘標(biāo)題黨’,避免添加主觀臆測(cè)內(nèi)容,發(fā)現(xiàn)謠言立即向網(wǎng)信部門(mén)舉報(bào),而非二次傳播?!崩瞵撜J(rèn)為,用戶要主動(dòng)拒絕成為謠言傳播鏈的一環(huán)。
寧夏新聞網(wǎng)(www.rashoes.net)版權(quán)所有,未經(jīng)授權(quán)禁止轉(zhuǎn)載或建立鏡像
寧夏日?qǐng)?bào)報(bào)業(yè)集團(tuán) 寧夏互聯(lián)網(wǎng)新聞中心 Copyright 2000-2012 NXNEWS.NET All Rights Reserved
地址:寧夏銀川市金鳳區(qū)宜居路156號(hào) 郵編:750001 新聞熱線:0951-5029811 傳真:0951-5029812 合作洽談:0951-6031787